Rắn mamba đen sinh sống trên một phạm vi rộng và đôi khi bị phân mảnh tại châu Phi hạ Sahara. Cụ thể, phạm vi mamba đen quan sát được như sau: đông bắc cộng hòa Dân chủ Congo, tây nam Sudan đến Ethiopia, Eritrea, Somalia, Kenya, phía đông Uganda, Tanzania, Burundi, Rwanda, phía nam đến Mozambique, Swaziland, Malawi, Zambia, Zimbabwe, Botswana đến KwaZulu-Natal tại Nam Phi, và Namibia; sau đó về phía đông bắc thông qua Angola đến đông nam Congo.[14][19] Phân bố của rắn mamba đen chứa nhiều khoảng trống tại Cộng hòa Trung Phi, Chad, Nigeria và Mali. Những khoảng trống này có thể khiến giới y tế nhận diện sai về mamba đen và cung cấp huyết thanh kháng độc kém hiệu quả.[19]

Rắn mamba đen cũng được ghi nhận năm 1954 tại Tây Phi, ở vùng miền Dakar thuộc Senegal.[19] Tuy nhiên, quan sát này cùng một quan sát sau đó nhận dạng mẫu vật thứ hai trong khu vực vào năm 1956. Báo cáo không được xác nhận, do đó phân bố loài tại khu vực này không thuyết phục.[19] Rắn mamba đen không phổ biến tại nơi có độ cao trên 1.000 mét (3.300 ft), mặc dù phân bố của rắn mamba đen đạt 1.800 mét (5.900 ft) tại Kenya và 1.650 mét (5.410 ft) tại Zambia.[19]

Rắn mamba đen chủ yếu sống trên mặt đất trong tự nhiên, mặc dù quan sát thỉnh thoảng rắn cũng sống trên cây;[20] thường sống tại khu vực ít được chú ý, có bụi rậm, gò mối, hang bỏ hoang và khe đá.[18] Rắn thích nghi với nhiều loại địa hình khác nhau từ đồng cỏ khô và rừng thưa đến dốc đá và rừng rậm.[19] Mamba đen thích môi trường khô cằn hơn như rừng thưa sáng sủa, cây bụi, mỏm đá, hay đồng cỏ nửa khô hạn.[19]